home *** CD-ROM | disk | FTP | other *** search
/ CD ROM Paradise Collection 4 / CD ROM Paradise Collection 4 1995 Nov.iso / science / neumap3.zip / NUMP.ZP / POLM.HLP < prev    next >
Text File  |  1994-08-19  |  3KB  |  95 lines
  1. Functional Link Training and Testing Program
  2.  
  3. Outline
  4.  
  5. 1. Purpose; 
  6. 2. Network Characteristics;
  7. 3. Files Needed or Produced
  8. 4. Example Run of Functional Link Program
  9. 5. Error Functions
  10.  
  11.  
  12.  
  13. 1. Purpose; 
  14.  a. Initialize and train a functional link mapping network using 
  15.       a fast training method.
  16.  b. Process a data file having no desired outputs.
  17.  c. Non-demo version saves weights to a disk file.
  18.  
  19. 2. Network Characteristics;
  20.  a. Activation Functions; Linear output units 
  21.  b. Net Functions; polynomial functions of the inputs, with 
  22.         user-chosen degrees of 1 to 5.
  23.  
  24. 3. Files Needed or Produced
  25.  a. The network structure file; stores the number of inputs and outputs, 
  26.         and the polynomial degree.
  27.  b. The training or testing data file, which gives example inputs 
  28.      and outputs for network learning, or for testing after learning.
  29.      Al data files are in formatted, standard form, which means that 
  30.      each pattern or feature vector is followed by the desired outputs.
  31.  
  32. 4. Example Run of Functional Link Program
  33.  a. Go to the "Batch Processing" option and press <ret>
  34.  b. Observe the parameter file with commented keyboard responses;
  35.  
  36. 1             ! train network
  37. 1             ! use old network structure
  38. GLS.tp        ! old network structure filename
  39. GLS           ! data filename
  40. 0             ! read all training data
  41. 1             ! examine some data
  42. 1 2           ! examine patterns 1 and 2 (training begins here)
  43. 3             ! stop
  44.  
  45.     The program will read all patterns from the file gls, and train a
  46.     functional link net using the network structure file gls.tp, which
  47.     is shown below.
  48.            3           4           1
  49.           35           1
  50.  
  51.     The network will be 3rd degree with 4 inputs and 1 output. The 
  52.     final network weights will not be stored in the demo version.
  53.  c. Exit the DOS editor and observe the program running
  54.  d. Go to the "Examine Program Output" option and press <ret>
  55.  e. You can run this program on your own data, simply by editing the 
  56.     parameter file in the "batch Run" option.
  57.  
  58.  
  59. 5. Error Functions
  60.  
  61.  a. The error function that is being minimized during functional link
  62.     training is
  63.  
  64.                    Nout      
  65.     MSE = (1/Npat) SUM MSE(k)     where
  66.                    k=1  
  67.  
  68.               Npat              2
  69.     MSE(k) =  SUM [ Tpk - Opk ]
  70.               p=1  
  71.  
  72.     where Npat is the number of training patterns, Nout is the number 
  73.     of network output nodes, Tpk is the desired output for the pth
  74.     training pattern and the kth output, and Opk is the actual output
  75.     for the pth training pattern and the kth output. MSE is printed
  76.     for each iteration.
  77.  
  78.  b. Additional errors printed out are defined as follows.
  79.     The rms error of the kth output, RMS(k), is SQRT( MSE(k)/Npat ),
  80.     where SQRT means square root.
  81.  
  82.     The kth output's Relative RMS Error is
  83.  
  84.     R(k) = SQRT( MSE(k)/E(k) ) where
  85.  
  86.             Npat           2
  87.     E(k) =  SUM [ Opk-Mk ]      and
  88.             p=1  
  89.  
  90.                   Npat 
  91.     Mk = (1/Npat) SUM  Opk 
  92.                   p=1  
  93.  
  94.     The kth output's Error Variance is MSE(k)/Npat.
  95.